目的：分类器传输通常带有数据集偏移。为了克服它们，必须采用在线策略。对于实际应用，必须考虑用于适应批处理学习算法（例如SVM）的计算资源的局限性。方法：我们审查并比较了在线学习的几种策略与SVM。我们专注于限制存储培训数据大小的数据选择策略[...]主要结果：对于不同的数据移动，不同的标准是合适的。对于合成数据，将所有样品添加到所考虑的样品库中的性能通常比其他标准差得多。特别是，仅添加错误分类的样本表现出色。在这里，当其他标准没有得到很好的选择时，平衡标准非常重要。对于转移设置，结果表明，最佳策略取决于转移过程中漂移的强度。添加全部并删除最古老的样品会导致最佳性能，而对于较小的漂移，仅添加SVM的潜在新支持向量就足以减少处理资源。意义：对于基于脑电图模型的BCIS，使用了校准会话中的数据，先前的录制会话，甚至是与一个或其他主题的录音会话进行培训。学习模型的这种转移通常会降低性能，因此可以从在线学习中受益，从而适应了像已建立的SVM这样的分类器。我们表明，通过使用正确的数据选择标准组合，可以适应分类器并在很大程度上提高性能。此外，在某些情况下，可以通过使用特殊样本的子集更新并保留一小部分样品来训练分类器来加快处理并节省计算。
translated by 谷歌翻译
对于机器人应用来说，人类的方法非常重要。在介绍的研究中，我们实施了多模式的人类机器人互动（HRI）方案，其中模拟机器人通过语音和手势与其人类伴侣进行交流。机器人口头宣布其意图，并使用指向手势选择适当的动作。反过来，人类合作伙伴会评估机器人的口头公告（意图）是否与机器人选择的动作（指向手势）相匹配。对于机器人的口头公告与机器人的相应动作选择不符的情况，我们预计人类脑电图（EEG）中与错误相关的电位（ERRP）。实时记录了人类对机器人动作的固有评估，在脑电图中显而易见，在线连续分段并异步分类。对于功能选择，我们提出了一种方法，该方法允许向前和向后滑动窗口组合以训练分类器。我们在9个受试者中达到了91％的平均分类性能。正如预期的那样，我们还观察到受试者之间的变异性相对较高。将来，将扩展提出的特征选择方法，以允许自定义功能选择。为此，将自动选择向前和后滑动窗口的最佳组合，以说明分类性能中受试者间的可变性。此外，我们计划使用ERRP在互动增强学习中使用ERRP在错误情况下明显的固有人类错误评估来改善多模式的人类机器人相互作用。
translated by 谷歌翻译
Large language models (LLMs) have been shown to be able to perform new tasks based on a few demonstrations or natural language instructions. While these capabilities have led to widespread adoption, most LLMs are developed by resource-rich organizations and are frequently kept from the public. As a step towards democratizing this powerful technology, we present BLOOM, a 176B-parameter open-access language model designed and built thanks to a collaboration of hundreds of researchers. BLOOM is a decoder-only Transformer language model that was trained on the ROOTS corpus, a dataset comprising hundreds of sources in 46 natural and 13 programming languages (59 in total). We find that BLOOM achieves competitive performance on a wide variety of benchmarks, with stronger results after undergoing multitask prompted finetuning. To facilitate future research and applications using LLMs, we publicly release our models and code under the Responsible AI License.
translated by 谷歌翻译
尽管具有卷积神经网络（CNN）的图像超分辨率（SR）的突破性进步，但由于SR网络的计算复杂性很高，SR尚未享受无处不在的应用。量化是解决此问题的有前途方法之一。但是，现有的方法无法量化低于8位的位宽度的SR模型，由于固定的位宽度量化量的严重精度损失。在这项工作中，为了实现高平均比重减少，准确性损失较低，我们建议针对SR网络的新颖的内容感知动态量化（CADYQ）方法，该方法将最佳位置分配给本地区域和层，并根据输入的本地内容适应。图片。为此，引入了一个可训练的位选择器模块，以确定每一层和给定的本地图像补丁的适当位宽度和量化水平。该模块受量化灵敏度的控制，该量化通过使用贴片的图像梯度的平均幅度和层的输入特征的标准偏差来估计。拟议的量化管道已在各种SR网络上进行了测试，并对几个标准基准进行了广泛评估。计算复杂性和升高恢复精度的显着降低清楚地表明了SR提出的CADYQ框架的有效性。代码可从https://github.com/cheeun/cadyq获得。
translated by 谷歌翻译
将外观的图像编辑成令人惊叹的照片需要技巧和时间。自动图像增强算法通过在没有用户交互的情况下生成高质量的图像来引起人们的兴趣。但是，照片的质量评估是主观的。即使在音调和颜色调整中，自动增强的一张照片对于适合用户偏好的挑战也很具有挑战性。为了解决此问题，我们提出了一种半自动图像增强算法，该算法可以通过控制一些参数来生成具有多种样式的高质量图像。我们首先将照片修饰的技能从高质量的图像中解脱出来，并为每种技能建立有效的增强系统。具体而言，编码器框架框架将修饰技能编码为潜在代码，并将它们解码为图像信号处理（ISP）函数的参数。 ISP函数在计算上是有效的，仅由19个参数组成。尽管我们需要多次推断才能获得所需的结果，但实验结果表明，所提出的方法在基准数据集上实现了最先进的性能，以提高图像质量和模型效率。
translated by 谷歌翻译
近年来，通过开发大型的深层模型，图像修复任务已经见证了绩效的巨大提高。尽管表现出色，但深层模型要求的重量计算限制了图像恢复的应用。为了提高限制，需要减少网络的大小，同时保持准确性。最近，N：M结构化修剪似乎是使模型具有准确性约束的有效且实用的修剪方法之一。但是，它无法解释图像恢复网络不同层的不同计算复杂性和性能要求。为了进一步优化效率和恢复精度之间的权衡，我们提出了一种新型的修剪方法，该方法确定了每一层N：M结构稀疏性的修剪比。关于超分辨率和脱张任务的广泛实验结果证明了我们方法的功效，该方法的表现胜过以前的修剪方法。拟议方法的Pytorch实施将在https://github.com/junghunoh/sls_cvpr2r2022上公开获得。
translated by 谷歌翻译
域适应（DA）最近在医学影像社区提出了强烈的兴趣。虽然已经提出了大量DA技术进行了用于图像分割，但大多数这些技术已经在私有数据集或小公共可用数据集上验证。此外，这些数据集主要解决了单级问题。为了解决这些限制，与第24届医学图像计算和计算机辅助干预（Miccai 2021）结合第24届国际会议组织交叉模态域适应（Crossmoda）挑战。 Crossmoda是无监督跨型号DA的第一个大型和多级基准。挑战的目标是分割参与前庭施瓦新瘤（VS）的后续和治疗规划的两个关键脑结构：VS和Cochleas。目前，使用对比度增强的T1（CET1）MRI进行VS患者的诊断和监测。然而，使用诸如高分辨率T2（HRT2）MRI的非对比度序列越来越感兴趣。因此，我们创建了一个无人监督的跨模型分段基准。训练集提供注释CET1（n = 105）和未配对的非注释的HRT2（n = 105）。目的是在测试集中提供的HRT2上自动对HRT2进行单侧VS和双侧耳蜗分割（n = 137）。共有16支球队提交了评估阶段的算法。顶级履行团队达成的表现水平非常高（最佳中位数骰子 - vs：88.4％; Cochleas：85.7％）并接近完全监督（中位数骰子 - vs：92.5％;耳蜗：87.7％）。所有顶级执行方法都使用图像到图像转换方法将源域图像转换为伪目标域图像。然后使用这些生成的图像和为源图像提供的手动注释进行培训分割网络。
translated by 谷歌翻译
对于在线视频实例分段（VI），以有效的方式充分利用来自先前帧的信息对于实时应用是必不可少的。最先前的方法遵循一个两级方法，需要额外的计算，例如RPN和Roialign，并且在VI中的所有子任务中没有完全利用视频中的可用信息。在本文中，我们提出了一种基于网格结构特征表示构建的在线VI的新颖单级框架。基于网格的功能允许我们使用完全卷积的网络进行实时处理，并且还可以轻松地重用和共享不同组件内的功能。我们还介绍了从可用帧中聚合信息的协同操作模块，以便丰富VI中所有子任务的功能。我们的设计充分利用了以高效的方式为所有任务的网格形式提供了以前的信息，我们在YouTube上实现了新的最先进的准确性（38.6 AP和36.9 AP）和速度（40.0fps） - 2019年和2021年在线VIS方法之间的数据集。
translated by 谷歌翻译
过滤器修剪的目标是搜索不重要的过滤器以删除以便使卷积神经网络（CNNS）有效而不牺牲过程中的性能。挑战在于找到可以帮助确定每个过滤器关于神经网络的最终输出的重要或相关的信息的信息。在这项工作中，我们分享了我们的观察说，预先训练的CNN的批量标准化（BN）参数可用于估计激活输出的特征分布，而无需处理训练数据。在观察时，我们通过基于预先训练的CNN的BN参数评估每个滤波器的重要性来提出简单而有效的滤波修剪方法。 CiFar-10和Imagenet的实验结果表明，该方法可以在准确性下降和计算复杂性的计算复杂性和降低的折衷方面具有和不进行微调的卓越性能。
translated by 谷歌翻译
随着各个领域的深度学习的巨大成功，图形神经网络（GNNS）也成为图形分类的主要方法。通过全局读出操作，只会聚合所有节点（或节点群集）表示，现有的GNN分类器获得输入图的图级表示，并使用表示来预测其类标签。但是，这种全局聚合不考虑每个节点的结构信息，这导致全局结构的信息丢失。特别地，它通过对所有节点表示来强制执行分类器的相同权重参数来限制辨别力;在实践中，他们中的每一个都有助于不同于其结构语义的目标类别。在这项工作中，我们提出了结构性语义读数（SSREAD）来总结位置级节点表示，这允许为分类模拟特定位置的权重参数，以及有效地捕获与全局结构相关的图形语义。给定输入图，SSREAD旨在通过使用其节点与结构原型之间的语义对齐来识别结构上有意义的位置，该结构原型编码每个位置的原型特征。结构原型经过优化，以最小化所有训练图的对准成本，而其他GNN参数训练以预测类标签。我们的实验结果表明，SSREAD显着提高了GNN分类器的分类性能和可解释性，同时兼容各种聚合函数，GNN架构和学习框架。
translated by 谷歌翻译